Tháng 10 năm Hàm Ninh thứ 2 (276), Tấn Vũ Đế cải phong Dương Hỗ làm Chinh Nam tướng quân, khôi phục những chức vụ đã bị biếm trước đây, bao gồm cả đặc ân Khai phủ Nghi đồng tam tư, được phép chọn quan viên phụ tá.

Ngay từ đầu, Dương Hỗ đã cho rằng muốn phạt Ngô phải nhờ đến thượng du Trường Giang. Khi ấy nước Ngô có câu đồng dao: "A Đồng ơi A Đồng, ngậm dao mà vượt sông, không sợ thú trên bờ, chỉ sợ rồng dưới nước" (chữ Hán: 阿童复阿童，衔刀浮渡江，不畏岸上兽，但畏水中龙, Hán Việt: A Đồng phục A Đồng, hàm đao phù độ giang, bất úy ngạn thượng thú, đãn úy thủy trung long). Dương Hỗ nghe được, càng tin chắc việc phạt Ngô phải dựa vào thủy quân. Khi ấy, Ích Châu thứ sử Vương Tuấn được triệu về làm Đại tư nông, Dương Hỗ phát hiện Vương Tuấn có thể đảm nhiệm trọng trách, hơn nữa tên lúc nhỏ của ông ta là A Đồng, ứng với câu đồng dao. Nhưng Vương Tuấn lại có nhiều hiềm khích trong triều, Dương Hỗ phải cực lực khẳng định tài năng quân sự của ông ta, chủ trương đáp ứng những yêu cầu của ông ta, để ông ta phát huy tài năng. Dương Hỗ dâng mật biểu, được Tấn Vũ Đế chấp thuận, giữ Vương Tuấn ở lại coi sóc việc quân Ích Châu, gia phong làm Long Tương tướng quân, bí mật lệnh cho ông ta đóng chiến thuyền, chuẩn bị phạt Ngô. Bản thân Dương Hỗ cũng lệnh cho bộ tướng huấn luyện sĩ tốt, sửa sang vũ khí.

Trải qua 7 năm luyện binh và chuẩn bị các thứ vật chất, thực lực của quân Tấn ở Kinh Châu đã vượt xa quân Ngô. 2 năm sau, Lục Kháng bệnh mất, nội bộ của nước Ngô dưới sự cai trị tàn bạo của Tôn Hạo trở nên mâu thuẫn dữ dội. Dương Hỗ không để lỡ thời cơ, lập tức dâng biểu xin phạt Ngô.

Khi tấu sớ được dâng lên, đa số triều thần do bọn Giả Sung, Tuân Úc,.. cầm đầu, lấy lý do biên giới tây bắc bị người Tiên Ti xâm phạm, chưa thể tính đến đông nam để phản đối, chỉ có thiểu số như Độ chi thượng thư Đỗ Dự, Trung thư lệnh Trương Hoa tán đồng. Vào lúc quân Tấn thua trận ở các châu Tần, Lương…, Dương Hỗ dâng biểu lần thứ 2, cho rằng chỉ cần dẹp yên Trung Nguyên thì ngoại tộc không dám nổi loạn, nhưng vẫn có rất nhiều người phản đối. Ông thấy việc khó thành, ngửa mặt lên trời mà than rằng: "Việc trên đời không như ý, là do muốn 10 mà làm 7, 8. Trời đã cho mà không nhận, chỉ khiến cho đời sau than tiếc mà thôi."

Năm Hàm Ninh thứ 3 (277), Hạ Khẩu đô đốc Tôn Thận của nước Đông Ngô xâm phạm biên cảnh, cướp đi trên ngàn dân thường ở Dặc Dương, Giang Hạ. Dương Hỗ không phái binh đuổi theo. Tấn Vũ Đế phái người đến điều tra, còn muốn dời trị sở của Kinh Châu. Dương Hỗ cho rằng Giang Hạ cách Tương Dương đến 800 dặm, vừa biết tin giặc đến thì giặc đã đi khỏi cả ngày rồi, không thể cứu viện cũng không thể đuổi theo; giặc vào từ mọi hướng và đến bất kỳ chỗ nào, nếu cứ di dời trị sở để ngăn giặc thì không biết phải di dời bao nhiêu lần. Triều đình đành bỏ qua việc này.